Atenti con este -> Nosotros queremos que el $(2,0,-1)$ sea solución del sistema y además sea
única. Es decir, nuestro sistema tiene que ser un
SCD y el $(2,0,-1)$ tiene que ser su solución.
Te propongo entonces que arranquemos pidiendo que el $(2,0,-1)$ sea solución (o sea, verifique todas las ecuaciones) a ver si llegamos a alguna condición para $a$ o para $b$.
Sustituimos $x=2$, $y=0$, $z=-1$ en cada ecuación del sistema...
Primera ecuación -> $2x-ay+2z=2$
$4 - 0 - 2 = 2$
$2 = 2$ ✔️
Esta ecuación se cumple sin importar el valor de $a$
Segunda ecuación -> $x+y-bz=3$
$2 + b = 3$
$b = 1$
Apaaaa, esto vale oro para nosotros. Nos acabamos de dar cuenta que para que el $(2,0,-1)$ sea solución (y cumpla la segunda ecuación), $b = 1$.
Tercera ecuación -> $y-z=1$
Esta ecuación se cumple sin importar el valor de $a$ o de $b$.
Muy bien, ya sabemos que para que $(2,0,-1)$ sea solución, $b = 1$. Ahora veamos sí pidiendo que esa solución sea única (o sea, que el sistema sea un SCD) llegamos a alguna condición para $a$
Con $b = 1$ la matriz ampliada asociada al sistema nos quedaría así:
$\begin{pmatrix} 2 & -a & 2 & | & 2 \\ 1 & 1 & -1 & | & 3 \\ 0 & 1 & -1 & | & 1 \end{pmatrix}$
$F_1 \leftrightarrow F_2$
$\begin{pmatrix} 1 & 1 & -1 & | & 3 \\ 2 & -a & 2 & | & 2 \\ 0 & 1 & -1 & | & 1 \end{pmatrix}$
$F_2 - 2F_1 \Rightarrow F_2$
$\begin{pmatrix} 1 & 1 & -1 & | & 3 \\ 0 & -a-2 & 4 & | & -4 \\ 0 & 1 & -1 & | & 1 \end{pmatrix}$
$F_2 \leftrightarrow F_3$
$\begin{pmatrix} 1 & 1 & -1 & | & 3 \\ 0 & 1 & -1 & | & 1 \\ 0 & -a-2 & 4 & | & -4 \end{pmatrix}$
$F_3 - (-a-2)F_2 \Rightarrow F_3$
¿Se entiende por qué primero preferí intercambiar Fila 2 y Fila 3 y recién ahí hice la operación? Fijate que con esta última operación que hice estoy multiplicando por $(-a-2)$ a la Fila 2, que no es la fila que estoy modificando, así que esta operación está 100% permitida, aún sí $-a-2$ fuera cero.
$\begin{pmatrix} 1 & 1 & -1 & | & 3 \\ 0 & 1 & -1 & | & 1 \\ 0 & 0 & 2-a & | & a-2 \end{pmatrix}$
Ahora, para que este sistema sea un SCD, no tenemos que tener ceros en la diagonal -> Es decir $2-a \neq 0$, que se cumple si $a \neq 2$.
Ennnntonces, recapitualando, para que $(2,0,-1)$ sea la única solución del sistema, se tiene que cumplir que...
-> $b=1$ (para que sea solución)
-> $a \neq 2$ (para que además sea única)
Por lo tanto, los valores de $a$ y $b$ para los cuales $(2,0,-1)$ es la única solución del sistema son: $a \in \mathbb{R} - \{ 2 \}$ y $b = 1$.